נולד ביום ז' באייר תרס"ח (8.5.1908) בביילסקו שבשלזיה. עם פרוץ מלחמת העולם הראשונה נאלצה משפחתו לעזוב את מקום מגוריה ועברה לעיירה הקטנה אזירן. בסתיו 1917 התקבל יוסף לגימנסיה הריאלית בביילסקו, בה הצטיין בלימודיו ונתחבב על מוריו וחבריו ללימודים. מגיל עשר למד את השפה העברית מפי מורים שלקחו בשבילו הוריו. בגיל חמש-עשרה הצטרף לתנועת "השומר הצעיר", וב-1927 נבחר להנהגה הראשית של התנועה ועבר ללבוב, וכעבור שנה נתמנה למזכיר ההנהגה הראשית. ב-1930 עלה לארץ-ישראל והצטרף אל מחנה הקיבוץ בנס-ציונה. ב-1931 עבר למזרע וכאן התערה במהירות בחיי המשק, סופח כברזלן לקבוצת הבניין, אבל לא עשה עבודה זו זמן רב מאחר שיצא בשליחות תנועתו לצ'כוסלובקיה. לאחר שובו משליחות זו עשה בתפקידים שונים: רפתן, חצרן, סדרן עבודה, מדריך בחברת הנוער העולה ועם זאת התבלט בפעולתו התרבותית-הציבורית במשק.

בימי מאורעות הדמים תרצ"ו-תרצ"ט שירת יוסף במשמר הנע של חיל הנוטרים, השתתף בעליה לחניתה ובהקמת גדר הצפון. אחר כך שוב יצא לשליחות, הפעם לפולין, וחזר לארץ. ביום י"ט באייר תש"א (16.5.1941), בשעת אימון נשק במסגרת אירגון ה"הגנה", התפוצץ רימון בידו והוא נהרג במקום. הוא הובא למנוחת עולמים בקיבוץ מזרע. הניח אשה ובן.

שמו הונצח בחוברת זיכרון שהוציא קיבוצו.